La utilización de inteligencia artificial (IA) para supervisar el primer examen de admisión a licenciatura aplicado completamente en línea por la UNAM enfrenta un desafío jurídico: definir cómo restituir los derechos de los aspirantes si se confirma que algunos fueron afectados por “falsos positivos” generados por el sistema tecnológico.
Así lo advirtió en entrevista con Excélsior el doctor Daniel Trejo Medina, académico e investigador de la UNAM en Derecho Administrativo y Tecnologías de la Información, quien sostuvo que el caso exhibe una “laguna jurídica”, debido a que las normas universitarias no contemplan de manera específica un escenario de esta naturaleza.
“Existe una laguna jurídica. El Reglamento General de Exámenes establece que los errores pueden rectificarse, pero fue diseñado para alumnos ya inscritos, no para un concurso de ingreso de esta magnitud. Si se acredita que una alerta tecnológica incorrecta influyó en la cancelación de un examen, la UNAM tendría que adoptar una medida efectiva de restitución”, afirmó.
El especialista explicó que esa restitución no necesariamente implica repetir la prueba.
“Si el examen fue contestado y su resultado puede recuperarse íntegramente, podría proceder su validación o una nueva revisión; si la falla interrumpió, invalidó o contaminó irreversiblemente la evaluación, la reposición mediante una prueba equivalente podría ser una medida razonable”, señaló.
Trejo Medina enfatizó que la convocatoria establecía que la inteligencia artificial únicamente generaría reportes de incidencias y que cualquier cancelación debía sustentarse en una revisión humana.
“Un falso positivo algorítmico, sin evidencia humana suficiente, no podría ni debería producir por sí mismo una consecuencia tan grave para el aspirante”, sostuvo.La evidencia técnica debe poder ser auditada
Consultado sobre cómo puede defenderse un aspirante de 18 años si el sistema lo marcó erróneamente por un corte de internet, ruido ambiental u otro incidente técnico, el académico explicó que los jóvenes pueden aportar los elementos que razonablemente estén a su alcance, como reportes del proveedor de internet, registros de interrupciones eléctricas, capturas de pantalla, comunicaciones con el soporte técnico, diagnósticos del equipo, fotografías, testimonios o una cronología de los hechos.
Sin embargo, planteó que no sería razonable exigir al aspirante demostrar el funcionamiento interno de una plataforma cuyos registros permanecen bajo control de la institución o del proveedor tecnológico.
“No sería jurídicamente razonable exigirle al aspirante que pruebe el funcionamiento interno de una plataforma que desconoce y cuyos registros controla la institución o su proveedor. La información pertinente debe estar en poder de la UNAM: grabaciones, bitácoras, marcas de tiempo, alertas del sistema, comunicaciones con soporte técnico y constancias de la revisión realizada por el personal correspondiente”, expuso.
Añadió que la obligación de los aspirantes de verificar previamente su cámara, micrófono y equipo de cómputo no convierte automáticamente cualquier falla técnica en evidencia de fraude.
“La convocatoria establece que la cancelación procede cuando se comprueba alguna de las conductas previstas y no únicamente por la existencia de una alerta del sistema”, indicó.Revisar toda la cadena de decisión.
Respecto a las responsabilidades institucionales, Trejo Medina consideró que el análisis no debe concentrarse en una sola persona ni atribuirse al algoritmo.
“La responsabilidad no debe atribuirse anticipadamente a una sola persona ni diluirse bajo la afirmación de que ‘fue el algoritmo’; debe reconstruirse toda la cadena de decisión”, indicó.
Refirió que la convocatoria identifica a la Dirección General de Administración Escolar (DGAE), dependiente de la Secretaría General, como responsable del proceso de selección, por lo que consideró que esa instancia debe formar parte de la revisión del procedimiento.
Asimismo, agregó que deben analizarse las actuaciones de las áreas que participaron en la selección, contratación y configuración de la plataforma tecnológica; las áreas de tecnologías de la información y seguridad; quienes definieron los indicadores y umbrales de alerta; el personal encargado de la supervisión humana; las áreas responsables de protección de datos personales y, en su caso, el proveedor tecnológico.
Sobre la participación de la Coordinación de Evaluación, Innovación y Desarrollo Educativo, señaló que también debe examinarse si intervino de manera selectiva en el proceso de elección de la herramienta, así como en la provisión del soporte técnico y metodológico correspondiente.
Respecto al rector Leonardo Lomelí Vanegas, Trejo Medina señaló que si bien existe una responsabilidad institucional de conducción y respuesta frente a una crisis de esta magnitud, ello no implica automáticamente una responsabilidad técnica, administrativa o jurídica particular.
“Para llegar a esa conclusión sería necesario demostrar qué decisiones conoció, autorizó u omitió”, puntualizó.»
La IA no tiene magia probatoria»
El investigador reiteró que las herramientas algorítmicas pueden identificar patrones atípicos, pero no constituyen por sí solas una prueba concluyente de fraude.
“Una IA de vigilancia educativa carece de magia probatoria. Puede detectar señales o anomalías, pero esto jamás equivale por sí mismo a la comisión de un fraude. Un evento marcado por el sistema requiere interpretación humana, contexto, evidencia reproducible y explicación técnica”, sostuvo.
Añadió que, si la revisión humana hubiera sido inexistente o meramente formal, podría verse comprometida la legalidad, motivación y congruencia de las decisiones adoptadas durante el concurso de selección.
Como ruta para fortalecer la confianza en el proceso, propuso publicar una versión pública del contrato celebrado con el proveedor tecnológico y sus anexos técnicos; realizar una auditoría forense independiente a las bases de datos, bitácoras y registros del sistema; abrir procedimientos individuales de revisión para los aspirantes afectados y, en su caso, denunciar a las redes que hubieran lucrado con servicios fraudulentos.
“Salvaguardar a la UNAM significa preservar el derecho a la educación, la limpieza del proceso de admisión, la igualdad entre aspirantes y la confianza pública en nuestra Universidad”, concluyó.
Excélsior
